Sau khi tốt nghiệp ở Princeton, Madison quan tâm đến mối quan hệ dần xấu đi giữa Anh và các thuộc địa Mỹ vì vấn đề Anh đánh thuế. Năm 1774, Madison có chỗ đứng trong Ủy ban Bảo An ở địa phương, do một nhóm người yêu nước ủng hộ cuộc cách mạng thành lập để giám sát các lực lượng dân quân địa phương. Đây là bước đầu trong cuộc đời phục vụ cộng đồng của ông mà chính sự giàu có của gia đình đã tạo điều kiện cho ông.[19] Tháng 10/1775, ông được giao nhiệm vụ làm đại tá lực lượng dân quân Orange, nhưng ông đã không nhận nhiệm vụ chiến đấu nào vì lý do sức khỏe.[20]

Trong Chiến tranh Cách mạng Mỹ, Madison phục vụ trong cơ quan lập pháp bang Virginia (1776-1779) và trở thành người bảo trợ đồng bào đại biểu của Thomas Jefferson. Trước đó, ông chứng kiến ​​sự đàn áp các nhà truyền giáo Baptist ở Virginia, những người đã bị bắt giữ vì rao giảng mà không có giấy phép thành lập của Giáo hội Anh. Ông đã hợp tác với nhà truyền giáo Baptist khác là Elijah Craig để thúc đẩy đảm bảo hiến pháp cho tự do tôn giáo tại Virginia.[21] Điều này đã giúp cho thời trang ý tưởng của mình về tự do tôn giáo mà ông áp dụng vào Hiến pháp và Tuyên Ngôn Nhân quyền.

Madison trở nên nổi bật trong giới chính trị ở Virginia. Ông cùng Jefferson soạn thảo Điều Lệ Virginia Về Tự Do Tín Ngưỡng, được thông qua vào năm 1786. Nó siết Giáo hội Anh và loại bỏ quyền lực nhà nước trong vấn đề tôn giáo. Ông cũng loại bỏ kế hoạch của Patrick Henry là bắt dân nộp thuế để họ có thể đến một công đoàn theo sự lựa chọn của họ. Năm 1777, Quyền Sư James Madison (1749-1812), anh họ của Madison, trở thành chủ tịch Đại Học William & Mary. Nhờ ảnh hưởng của Madison và Jefferson, Đức Giám mục Madison đã lãnh đạo trường thông qua các thay đổi liên quan đến tách từ cả Anh và Giáo hội Anh. [Cần dẫn nguồn]

Là đại biểu trẻ nhất Quốc hội Lục Địa (1780-1783), Madison được coi là nhân lực chính trong lập pháp và một bậc thầy về xây dựng liên minh quốc hội.[19] Ông thuyết phục Virginia từ bỏ tuyên bố chủ quyền lãnh thổ, bao gồm phần tây bắc của hầu hết bang Ohio ngày nay, và các điểm phía tây cho Quốc hội Lục Địa. Nó tạo ra vùng lãnh thổ Tây Bắc vào năm 1783, là vùng lãnh thổ liên bang giám sát từ đó bang mới đã được hình thành và kết nạp vào công đoàn. Tuyên bố đất của Virginia đã một phần chồng chéo với những người của bang Connecticut, Pennsylvania và Maryland; họ cũng nhượng lại vùng đất phía tây của họ cho chính quyền nhà nước, với sự hiểu biết rằng các bang mới có thể được hình thành từ đất. Pháp lệnh Tây Bắc cấm chế độ nô lệ trong các lãnh thổ mới ở phía bắc sông Ohio, nhưng không kết thúc được chế độ nô lệ bởi những người định cư sở hữu nô lệ đã ở trong lãnh thổ từ trước khi có pháp lệnh.

Madison được bầu làm đại biểu Virginia lần hai và làm từ năm 1784 đến năm 1786, những năm đầu của nền độc lập. Trong những năm cuối làm đại biểu, Madison ngày càng thất vọng với những gì ông thấy là dân chủ quá đáng. Ông chỉ trích các đại biểu có xu hướng phục vụ lợi ích cụ thể cho các thành phần của họ, ngay cả khi các lợi ích đó là phá hoại nhà nước nói chung. Đặc biệt, ông gặp rắc rối bởi một đạo luật dẫn đến bị từ chối miễn trừ ngoại giao đến các đại sứ từ các nước khác, và một đạo luật hợp pháp hóa tiền giấy.[22] Ông nghĩ rằng các nhà lập pháp nên "vô tư" và hành động vì lợi ích của nhà nước của họ tại lớn, thậm chí nếu điều này mâu thuẫn với mong muốn của cử tri. Madison tin rằng "dân chủ quá mức" là nguyên nhân của một xã hội phân rã rộng lớn mà ông và những người khác (chẳng hạn như Washington) nghĩ đã được nối lại sau cuộc cách mạng và đã gần một tipping point- Cuộc Nổi Loạn Shay là một ví dụ.